Los Principios de Santa Clara

En mayo de 2018, una coalición de organizaciones, defensores y académicos se reunió para crear los Principios de Santa Clara sobre la transparencia y la responsabilidad en torno a la moderación de contenidos en respuesta a la creciente preocupación por la falta de transparencia y responsabilidad de las plataformas de Internet en torno a cómo crean y aplican sus políticas de moderación de contenidos. Los Principios establecen unas normas mínimas que las plataformas tecnológicas deben cumplir para ofrecer una transparencia y una responsabilidad adecuadas en relación con sus esfuerzos por retirar los contenidos generados por los usuarios o suspender las cuentas que infrinjan sus normas.

El conjunto original de Principios se centra en tres exigencias clave: números completos que detallen los esfuerzos de moderación de contenidos de una plataforma, una notificación clara a los usuarios afectados y un proceso de apelación sólido. Son coherentes con el trabajo de David Kaye, antiguo Relator Especial de la ONU sobre la promoción del derecho a la libertad de expresión y de opinión, que pidió un “marco para la moderación de los contenidos en línea generados por los usuarios que sitúe los derechos humanos en el centro”. Los principios también reflejan las recomendaciones de los Principios Rectores de la ONU sobre Empresas y Derechos Humanos, que articulan las responsabilidades de las empresas en materia de derechos humanos.

Cuando se publicaron los Principios, había muy poca transparencia en torno al alcance, la escala y el impacto de los esfuerzos de moderación de contenidos de las plataformas de Internet. Por ello, los autores de los Principios pidieron a las empresas que revelaran más datos sobre estos esfuerzos de moderación a través de informes de transparencia. Estos informes de transparencia han contribuido a poner de manifiesto la censura gubernamental en las plataformas, han permitido a los usuarios tomar decisiones más informadas sobre qué productos utilizar y evitar, y han facultado a los grupos de defensa para presionar a las empresas para que sigan los procesos legales establecidos a la hora de responder y cumplir con las demandas gubernamentales. Además, los autores de los Principios señalaron que la moderación de contenidos suele producirse de forma descendente, dejando a los usuarios con pocas opciones de recurso y reparación. Los Principios de “notificación” y “apelación” pretendían establecer mecanismos sólidos, transparentes y fiables para el debido proceso de los usuarios.

Desde su publicación, muchas plataformas de Internet han respaldado y se han comprometido a adherirse a los Principios. Entre ellas se encuentran Apple, Facebook, GitHub, Google, Instagram, LinkedIn, Medium, Reddit, Snap, Tumblr, Twitter y YouTube. Si bien algunas de estas plataformas han hecho notables avances en la provisión de más transparencia en torno a sus esfuerzos de moderación de contenidos, muy pocas empresas han cumplido plenamente con las demandas esbozadas en los Principios. Las plataformas deben hacer más para cumplir con estas expectativas básicas de transparencia y responsabilidad.

La coalición de los Principios de Santa Clara, un grupo compuesto por __ organizaciones, ha lanzado un conjunto actualizado de principios con el fin de fomentar la transparencia y la responsabilidad de la plataforma.

Aunque los Principios originales de 2018 establecen normas básicas muy sólidas que las empresas deben cumplir, la participación en su creación se limitó a unos pocos grupos e individuos, y los aliados -en particular de los países del Sur Global- plantearon preocupaciones y sugerencias legítimas para su revisión. En particular, las partes interesadas de todo el mundo han subrayado que las plataformas están invirtiendo más recursos en proporcionar transparencia y el debido proceso a los usuarios de ciertas comunidades y mercados. Las empresas deben abordar esta desigualdad y garantizar que todos sus usuarios -independientemente de su lugar de residencia- puedan obtener transparencia y responsabilidad por parte de estas empresas. Esto es especialmente importante dado que muchos de los daños que se producen como resultado de las prácticas de moderación de contenidos de las plataformas ocurren en comunidades que las plataformas han estado descuidando.

El panorama de la moderación de contenidos ha cambiado radicalmente en los últimos años. Las plataformas ya no abordan los contenidos y las cuentas perjudiciales simplemente eliminándolos. Hoy en día, muchos servicios también se basan en herramientas algorítmicas para curar el contenido a través de intervenciones como el downranking. Hay una grave falta de transparencia y responsabilidad en torno a cómo las plataformas están desplegando estas intervenciones y cuáles son los impactos resultantes en la libertad de expresión. Además, los investigadores y los defensores de la libertad de expresión han subrayado el resultado discriminatorio y perjudicial que puede tener el contenido de pago en línea. En la actualidad también existe una gran falta de transparencia en torno a cómo se modera este tipo de contenido, y con qué repercusiones. Estas son otras áreas sobre las que las plataformas deben comprometerse a arrojar luz.

Por último, durante la pandemia de COVID-19, muchas plataformas compartieron que aumentarían su dependencia de las herramientas automatizadas para la moderación de contenidos. Algunos servicios también anunciaron que suspenderían sus procesos de apelación, impidiendo así el acceso de los usuarios al debido proceso. Numerosas organizaciones de la sociedad civil expresaron su preocupación por el impacto de estas decisiones en la libertad de expresión en línea, subrayando que las plataformas deben ser capaces de mantener un nivel básico de transparencia y responsabilidad en todo momento.

Debido a estas tres preocupaciones, la coalición de los Principios de Santa Clara inició una convocatoria abierta para recibir comentarios de una amplia gama de partes interesadas a nivel mundial, con el objetivo de ampliar eventualmente los principios. La coalición llevó a cabo una importante labor de divulgación pública y comunitaria a través de un periodo de comentarios abierto y una estrategia complementaria de divulgación dirigida, luego revisó las aportaciones durante un periodo designado y, finalmente, redactó un nuevo conjunto de Principios. Se celebraron una serie de consultas abiertas y talleres para añadir más detalles al conjunto original de principios.